任意の行列 $A \in \mathbb{R}^{m \times n}$ の4つの基本部分空間は独立して存在するのではなく、直交補空間のペアとして幾何的に関連しています。この「直交的構造」は、射影や最小二乗法によって不整合系を解くための前提条件です。行空間 $C(A^T)$ が $\mathbb{R}^n$ 内で零空間 $N(A)$ と完全に垂直であり、列空間 $C(A)$ が $\mathbb{R}^m$ 内で左零空間 $N(A^T)$ と垂直であることを確認します。
定義と直交性
行列の構造を理解するには、部分空間が垂直であるという意味をまず定義する必要があります。これは単純なベクトルの直交性よりもはるかに厳格な条件です。
- 部分空間の直交性：ベクトル空間の2つの部分空間 $V$ と $W$ が直交するとは、 すべての 部分空間 $V$ 内のすべてのベクトル $v$ が すべての 部分空間 $W$ 内のすべてのベクトル $w$ に垂直であることです。形式的には、すべての $v \in V$ およびすべての $w \in W$ に対して $v^T w = 0$ が成り立ちます。
- 直交補空間 ($V^\perp$)：部分空間 $V$ の直交補空間は、 すべての 部分空間 $V$ に垂直なすべてのベクトルを含みます。これは $V^\perp$（「V パープ」と発音）と表されます。
直交性の基本定理
線形代数の根幹となる恒等式は、行列の作用とその空間の幾何学を結びつけています：
行空間の証明
$x$ が零空間 $N(A)$ に属するならば、$Ax = 0$ となります。これは行列 $A$ の各行と $x$ との内積がすべてゼロであることを意味します。行空間 $C(A^T)$ はこれらの行ベクトルによって張られるため、行空間内のすべてのベクトルは $x$ と垂直でなければなりません。
$$x^T(A^T y) = (Ax)^T y = 0^T y = 0$$
これにより、次元の美しいバランスが導かれます。$\mathbb{R}^n$ では、次元は常に互いに補完し合う形になります：$\dim(C(A^T)) + \dim(N(A)) = n$。同様に、$\mathbb{R}^m$ では $\dim(C(A)) + \dim(N(A^T)) = m$ が成り立ちます。
フレドホルムの選言
これら2つの問題のうち、ちょうど1つだけが解を持つ構造的な双対性が存在します：
- $Ax = b$：ベクトル $b$ が列空間に属する。
- $A^T y = 0$ かつ $y^T b = 1$：$b$ が左零空間に成分を持ち、システムが不整合になる。
🎯 ポイント：2つの壁
部屋の中の2つの壁は垂直に見えますが、それらは直交部分空間ではありません！両方とも交わる線を共有しています。この線上にあるベクトルは自分自身と垂直ではない（$v^T v \neq 0$）ため、厳密な定義は成立しません。$\mathbb{R}^3$ 内の2つの平面は決して直交部分空間になり得ません。